AI Papers Daily

#uncertainty calibration

2 篇

Asymptotic Risk Calibration for Selective Question Answering

选择性问答的渐近风险校准

🧭 LLM 不确定性校准与选择性拒答

Zhangjiang University · Ibaraki University

模型无关的事后校准框架，为LLM选择性问答提供渐近错误率控制，无需训练即可搭配任意不确定性估计器

📌 工作参考价值（4 点）

• 在电商客服、商品问答、搜索摘要等场景，当LLM输出需要保障准确率时，可借鉴A-CRC-QA的事后校准思路，在验证集上对不确定性分数进行单调化校准，获得满足目标错误率的动态拒答阈值，而不是拍脑袋固定阈值。
• 方法模型无关、无需训练，可与多种不确定性估计（如语义一致性、perplexity、self-consistency）结合，非常适合快速集成到现有LLM服务中，以最小成本提高输出可靠性。
• 对于推荐/搜索中的Agent决策（如自动生成推荐解释、选品理由），可应用类似风险控制，对Agent最终输出进行选择性过滤，降低向用户展示错误信息的概率，并量化控制风险。
• 注意方法针对渐近控制，工程上需积累足够校准集并定期更新阈值，以应对数据分布漂移。

Eval | 2026-08-12 | cs.CL | score 7/10

selective question answeringuncertainty calibrationconformal risk controlLLMabstentionrisk control

Reinforcement Learning with Metacognitive Feedback Elicits Faithful Uncertainty Expression in LLMs

利用元认知反馈的强化学习实现 LLM 可信不确定表达

🧭 LLM 校准 · 元认知反馈

Yale University · Google Research

提出 RLMF 范式，以模型自我评判质量作为奖励来优化偏好排序，显著提升 LLM 的不确定度校准与边界认知能力。

📌 工作参考价值（4 点）

• 生成式推荐解释的可信度增强：在电商搜索推荐中，若 LLM 生成推荐理由或商品评测，可利用 RLMF 校准模型输出的置信度，使语言表达的不确定性（如“可能适合”“强烈推荐”）更符合真实准确率，提升用户信任。
• 偏好优化的奖励信号设计：RLMF 将自我评判质量（如校准误差）作为奖励项融入偏好优化，可借鉴到生成式推荐模型的排序对齐中，使模型在生成物品描述、理由选择时具备更好的自我评估与保守表达能力。
• 高价值训练样本筛选：元认知数据选择基于模型自我评估挑选高价值样本，可应用于点击率预估、用户意图识别等任务的主动学习流程，减少标注成本并提升样本效率。
• 两阶段解耦式校准：先校准数值置信度，再通过编辑映射到自然语言，这种解耦方法可直接用于推荐解释的生成后处理，在不重训模型的情况下提高解释的可靠性。

Eval | 2026-06-30 | cs.CL | score 7/10

uncertainty calibrationmetacognitionRLMFpreference optimizationactive learningLLMs